"Đại số" là một từ Hán-Việt (代數), chỉ đến việc sử dụng ký hiệu để đại diện cho các con số. Từ này được nhà toán học Trung Quốc Lý Thiện Lan (李善蘭) dịch ra từ khái niệm từ Tây phương. Trong các ngôn ngữ Tây phương, từ đại số (algebra) phát nguồn từ tiếng Ả Rập الجبر (al-jabr, có nghĩa là phục chế). Nó được lấy từ tựa đề quyển sách Ilm al-jabr wa'l-muḳābala của al-Khwarizmi.